Thời kì cư trú gần chợ Thị Nghè, Phêrô Vũ Đình Long xin được chân đánh máy chữ tại bộ Công Chánh. Anh thường lui tới văn phòng Hội cựu tự vệ Công giáo Phát Diệm để qua đó chiếm được cảm tình đức cha Hoàng Quỳnh và đức giám mục Lê Hữu Từ.

Tháng 12 năm 1958, rong cao trào tố Cộng diệt Cộng, một công chức Đoàn Công tác Đặc biệt Miền Trung tên Nguyễn Tư Thái (Thái Đen) phát hiện Hai Long có liên đới các hoạt động ngầm Việt Minh nên sai mật thám bắt Hai Long rồi tạm giam tại trại Tòa Khâm (Huế) do nhân vật Dương Văn Hiếu đảm trách. Tình cờ hôm đi tập thể dục, Hai Long nhận ra một chỉ huy cũ của mình là Mười Hương (Trần Quốc Hương) đang bị biệt giam. Nhờ các đường dây bí mật trong trại, Mười Hương chỉ đạo Hai Long phải "chui sâu leo cao" trong chính quyền để xây dựng lưới tình báo A22.

Nhờ sự vận động của đức cha Hoàng và đức cha Lê, Hai Long được giảm án xuống còn "từng có quá khứ theo Việt Minh", chỉ bị giam cho đến năm 1961. Trước khi được thả, cuối năm 1959, thông qua hai đức cha, Hai Long đã đệ trình lên Ông Cậu Ngô Đình Cẩn bản kiến nghị Bốn nguy cơ của chế độ. Tờ trình được chuyển đến tay tổng thống Ngô Đình Diệm và ông cố vấn Ngô Đình Nhu ngay trước thềm chính biến 1960, khi Hai Long còn ngồi trong trại. Chính biến được dập ngay nhưng cái tên Hai Long khiến anh em họ Ngô chú ý.

Phóng thích chưa lâu, Hai Long được các cha nhắn lên Phủ Cam có việc khẩn. Vừa tới nơi, anh được yết kiến đức tổng giám mục Ngô Đình Thục, mới từ Sài Gòn bay ra miền Trung với vai trò đặc phái viên tổng thống. Anh được Ông Cậu Ngô Đình Cẩn cho xe rước về tư dinh dùng cơm trưa và vấn an thân mẫu. Một thời gian sau, cố vấn chính trị Ngô Đình Nhu cũng ra Huế gặp riêng Hai Long bàn cách ứng phó tình hình đang rất căng thẳng.

Kể tự đấy, Hai Long ung dung làm một công chức nhỏ giữa Sài Gòn hoa lệ, với bề ngoài giản dị nhưng anh được tùy nghi ra vào tổng thống phủ, vừa để bàn công việc với cố vấn Ngô Đình Nhu và phu nhân Trần Lệ Xuân vừa nắm bắt tình hình trong cơ quan đầu não chính quyền. Tuy nhiên, tổ chức bắt đầu ngờ Hai Long có biểu hiện hai mang. Một đằng, các đồng chí cũ thường tìm cách quấy nhiễu Hai Long; mặt khác, sở mật vụ của bác sĩ Trần Kim Tuyến vẫn cử người theo dõi nhất cử nhất động của anh, cả ở nhà và khi đi làm.